​

附录 A：高级提示技术

​

提示技术简介

​

核心提示原则

​

基础提示技术

​

零样本提示（Zero-Shot）

• 适用场景：零样本提示通常适用于模型在训练过程中可能广泛接触的任务，例如简单问答、文本补全或基础文本摘要。这是最快捷的初步尝试方法。
• 示例： 将以下英文句子翻译成法语：‘Hello, how are you?‘

​

单样本提示（One-Shot）

• 适用场景：当期望的输出格式或风格较为特殊或不常见时，单样本提示十分有用。它为模型提供了具体的学习范例。相比零样本，它能提升需要特定结构或语气任务的性能。
• 示例： 将以下英文句子翻译成西班牙语： 英文：‘Thank you.’ 西班牙语：‘Gracias.’ 英文：‘Please.’ 西班牙语：

​

少样本提示（Few-Shot）

• 适用场景：少样本提示特别适用于需要遵循特定格式、风格或展现细微变化的任务。它非常适合于分类、具有特定模式的数据提取或以特定风格生成文本等任务，尤其是在零样本或单样本无法产生一致结果时。使用至少三到五个示例是通用经验法则，可根据任务复杂度和模型 token 限制进行调整。
• 示例质量与多样性的重要性：少样本提示的效果很大程度上取决于所提供示例的质量和多样性。示例应准确、具有代表性，并涵盖模型可能遇到的潜在变化或边缘情况。高质量、精心编写的示例至关重要；即使微小错误也可能混淆模型并导致不良输出。包含多样化示例有助于模型更好地泛化到未见过的输入。
• 分类示例中的类别混合：在使用少样本提示进行分类任务（模型需要将输入分类到预定义类别）时，混合不同类别的示例顺序是最佳实践。这防止模型过度拟合特定示例序列，确保其学会独立识别每个类别的关键特征，从而在未见数据上实现更鲁棒和可泛化的性能。
• 向”多样本学习”的演进：随着 Gemini 等现代 LLM 在长上下文建模方面能力增强，它们在利用”多样本学习”方面变得极为有效。这意味着现在可以通过在提示中直接包含大量示例（有时甚至数百个）来实现复杂任务的最佳性能，使模型能够学习更复杂的模式。
• 示例： 将以下电影评论的情感分类为 POSITIVE、NEUTRAL 或 NEGATIVE： 评论：“表演精湛，故事引人入胜。” 情感：POSITIVE 评论：“还行，没什么特别的。” 情感：NEUTRAL 评论：“我觉得情节混乱，角色不讨喜。” 情感：NEGATIVE 评论：“视觉效果惊艳，但对话薄弱。” 情感：

​

提示结构设计

​

系统提示

• 示例： 你是一个乐于助人且无害的 AI 助手。以礼貌且信息丰富的方式回应所有查询。不要生成有害、有偏见或不适当的内容。

​

角色提示

• 示例： 扮演一位经验丰富的旅行博主。写一段简短且引人入胜的文字，介绍罗马最佳隐藏景点。

​

使用分隔符

• 示例： <instruction>总结以下文章，重点关注作者提出的主要论点。</instruction> <article> [在此插入文章全文] </article>

​

上下文工程

• 系统提示：定义 AI 操作参数的基础指令（例如，“你是技术文档作者；语气必须正式且精确”）。
• 外部数据：
  • 检索文档：从知识库主动获取以支撑响应的信息（例如，提取技术规格）。
  • 工具输出：AI 使用外部 API 获取实时数据的结果（例如，查询日历获取可用性）。
• 隐式数据：关键信息，如用户身份、交互历史和环境状态。整合隐式上下文面临与隐私和道德数据管理相关的挑战。因此，强大的治理机制对上下文工程至关重要，尤其是在企业、医疗和金融等领域。

​

结构化输出

• 示例： 从以下文本中提取信息，并以包含 “name”、“address” 和 “phone_number” 键的 JSON 对象形式返回。 文本：“联系 John Smith，地址：123 Main St, Anytown, CA，或致电 (555) 123-4567。”

from pydantic import BaseModel, EmailStr, Field, ValidationError
from typing import List, Optional
from datetime import date

## --- Pydantic 模型定义（基于前述内容）---
class User(BaseModel):
    name: str = Field(..., description="用户的全名。")
    email: EmailStr = Field(..., description="用户的电子邮件地址。")
    date_of_birth: Optional[date] = Field(None, description="用户的出生日期。")
    interests: List[str] = Field(default_factory=list, description="用户兴趣列表。")

## --- 假设的 LLM 输出 ---
llm_output_json = """
{
    "name": "Alice Wonderland",
    "email": "alice.w@example.com",
    "date_of_birth": "1995-07-21",
    "interests": [
        "自然语言处理",
        "Python 编程",
        "园艺"
    ]
}
"""

## --- 解析和验证 ---
try:
    # 使用 model_validate_json 类方法解析 JSON 字符串。
    # 此步骤同时完成 JSON 解析和基于 User 模型的数据验证。
    user_object = User.model_validate_json(llm_output_json)

    # 现在可以使用干净、类型安全的 Python 对象。
    print("成功创建 User 对象！")
    print(f"姓名：{user_object.name}")
    print(f"电子邮件：{user_object.email}")
    print(f"出生日期：{user_object.date_of_birth}")
    print(f"第一个兴趣：{user_object.interests[0]}")
    # 可以像访问任何其他 Python 对象属性一样访问数据。
    # Pydantic 已将 'date_of_birth' 字符串自动转换为 datetime.date 对象。
    print(f"date_of_birth 的类型：{type(user_object.date_of_birth)}")

except ValidationError as e:
    # 如果 JSON 格式错误或数据不符合模型类型要求，
    # Pydantic 将抛出 ValidationError。
    print("无法验证来自 LLM 的 JSON 数据。")
    print(e)

​

推理与思维过程技术

​

思维链（Chain of Thought, CoT）

• 零样本思维链（Zero-Shot CoT）：这涉及简单地在提示中添加”让我们逐步思考”（或类似措辞）的短语，不提供任何推理过程示例。令人惊讶的是，对于许多任务，这一简单添加能通过触发模型暴露内部推理轨迹的能力，显著提升其性能。
  • 示例（Zero-Shot CoT）： 如果火车以每小时 60 英里的速度行驶，覆盖 240 英里的距离，旅程耗时多久？让我们逐步思考。
• 少样本思维链（Few-Shot CoT）：这结合了 CoT 与少样本提示。您向模型提供多个示例，展示输入、逐步推理过程和最终输出。这为模型提供了更清晰的模板，指导其如何执行推理和构建响应，通常在复杂任务上比零样本 CoT 产生更好结果。
  • 示例（Few-Shot CoT）： 问：三个连续整数的和是 36。这些整数是什么？ 答：设第一个整数为 x。下一个连续整数是 x+1，第三个是 x+2。和为 x + (x+1) + (x+2) = 3x + 3。已知和为 36，所以 3x + 3 = 36。两边减去 3：3x = 33。除以 3：x = 11。这些整数是 11、11+1=12 和 11+2=13。这些整数是 11、12 和 13。 问：Sarah 有 5 个苹果，她又买了 8 个。她吃了 3 个苹果。她还剩多少苹果？让我们逐步思考。 答：让我们逐步思考。Sarah 开始有 5 个苹果。她买了 8 个，所以她在初始数量上加 8：5 + 8 = 13 个苹果。然后，她吃了 3 个苹果，所以从总数中减去 3：13 - 3 = 10。Sarah 还剩 10 个苹果。答案是 10。

​

自我一致性

1. 生成多样化推理路径：将同一提示（通常是 CoT 提示）多次发送给 LLM。通过使用更高温度设置，鼓励模型探索不同推理方法并生成多样化逐步解释。
2. 提取答案：从每个生成的推理路径中提取最终答案。
3. 选择最常出现的答案：对提取的答案进行多数投票。在不同推理路径中出现最频繁的答案被选为最终、最一致的答案。

• 示例（概念性）：
  • 提示：“陈述’所有鸟类都能飞’是真还是假？解释你的推理。”
  • 模型运行 1（高温度）：推理大多数鸟类会飞，结论为真。
  • 模型运行 2（高温度）：考虑企鹅和鸵鸟等例外，结论为假。
  • 模型运行 3（高温度）：讨论鸟类一般特性，简要提及例外，结论为真。
  • 自我一致性结果：基于多数投票（真出现两次），最终答案为”真”。（注：更复杂的方法会权衡推理质量）。

​

后退提示

• 示例：
  • 提示 1（后退）：“优秀侦探故事的关键要素是什么？”
  • 模型响应 1：（列出如红鲱鱼、令人信服的动机、有缺陷的主角、逻辑线索、令人满意的结局等要素）。
  • 提示 2（原始任务 + 后退上下文）：“运用优秀侦探故事的关键要素[在此插入模型响应 1]，为一部设定在小镇的新神秘小说撰写简短情节摘要。“

​

思维树（Tree of Thoughts, ToT）

• 示例（概念性）：对于像”基于这些情节点为故事构思三种不同可能结局”的复杂创意写作任务，ToT 将允许模型从关键转折点探索不同叙事分支，而非仅生成单一线性延续。

​

行动与交互技术

​

工具使用/工具调用

• 示例： 你可以访问一个天气工具，该工具可以获取指定城市的当前天气。该工具名为 ‘get_current_weather’，接受一个 ‘city’ 参数（字符串类型）。 用户：伦敦现在的天气怎么样？
  • 预期模型输出（工具调用）：

{
  "tool_code": "get_current_weather",
  "tool_name": "get_current_weather",
  "parameters": {
    "city": "London"
  }
}

​

ReAct（推理与行动）

1. 思考：模型生成思维过程，阐述其当前理解和计划。
2. 行动：基于思考，模型决定执行操作，通常涉及使用工具（如搜索、计算器、API 调用）。它输出工具名称和所需输入。
3. 观察：Agentic 系统执行工具并将结果（观察）反馈给模型。
4. 循环继续，模型基于最新”观察”生成新的”思考”，引发进一步的”行动”和”观察”，直至任务完成，模型输出”最终答案”。

• 示例（说明性 ReAct 轨迹）：

用户：法国的首都是什么？当前人口是多少？

思考：用户询问两个信息：法国首都及其人口。我可以使用搜索工具查找这些信息。我将从确认首都开始，尽管我可能已经知道。
行动：搜索({"query": "法国首都"})
观察：巴黎

思考：好的，首都是巴黎。现在我需要查找巴黎的人口。
行动：搜索({"query": "巴黎当前人口"})
观察：巴黎人口在 2023 年估计约为 210 万人。

思考：我已找到两条信息。现在可以向用户提供最终答案。
最终答案：法国的首都是巴黎，其 2023 年估计人口约为 210 万人。

​

高级技术

​

自动提示工程（APE）

• 示例（概念性）：开发者提供描述：“我需要一个能从电子邮件中提取日期和发件人的提示。“APE 系统生成若干候选提示。这些提示在样本电子邮件上测试，最终选择能稳定提取正确信息的提示。

1. 金标准集（或高质量数据集）：这是一组具有代表性的高质量输入-输出对。它作为”真实基准”，定义了特定任务下成功响应应具备的特征。
2. 目标函数（或评分指标）：这是一个自动评估 LLM 输出与数据集中对应”黄金”输出的函数。它返回一个分数，指示响应的质量、准确性或正确性。

• Few-Shot 示例优化：优化器并非由开发者手动选择 few-shot 提示的示例，而是从金标准集中程序化地采样不同示例组合。随后测试这些组合，以识别最能有效引导模型生成期望输出的特定示例集合。
• 指令提示优化：在此方法中，优化器自动优化提示的核心指令。它使用 LLM 作为”元模型”迭代地变异和重新表述提示文本——调整措辞、语气或结构——以发现能获得目标函数最高评分的表述方式。

​

迭代提示/改进

• 示例：
  • 尝试 1：“为新型咖啡机撰写产品描述。“（结果过于泛泛）。
  • 尝试 2：“为新型咖啡机撰写产品描述。突出其速度和清洁便利性。“（结果改善，但缺乏细节）。
  • 尝试 3：“为’SpeedClean Coffee Pro’撰写产品描述。强调其在 2 分钟内冲泡一壶咖啡的能力及自清洁循环。目标受众为忙碌的专业人士。“（结果更接近期望）。

​

提供负面示例

• 示例： 生成巴黎热门旅游景点列表。不要包含埃菲尔铁塔。 不应采取的做法示例： 输入：列出巴黎著名地标。 输出：埃菲尔铁塔、卢浮宫、巴黎圣母院。

​

使用类比

• 示例： 扮演”数据厨师”角色。取用原始食材（数据点），为商务受众烹制一份”摘要菜肴”（报告），突出关键风味（趋势）。

​

因式认知/分解

• 示例：撰写研究论文：
  • 提示 1：“生成关于 AI 对就业市场影响的论文详细大纲。”
  • 提示 2：“基于此大纲撰写引言部分：[插入大纲引言]。”
  • 提示 3：“基于此大纲撰写’对白领工作的影响’部分：[插入大纲相关部分]。“（对其他部分重复此过程）。
  • 提示 N：“整合这些部分并撰写结论。“

​

检索增强生成（RAG）

• 示例：
  • 用户查询：“Python 库’X’最新版本有哪些新功能？”
  • 系统操作：在文档数据库中搜索”Python 库 X 最新功能”。
  • 对 LLM 的提示：“基于以下文档片段：[插入检索到的文本]，解释 Python 库’X’最新版本的新功能。“

​

用户画像模式

• 示例： 你正在解释量子物理。目标受众是毫无该学科基础知识的高中生。请用简单语言解释，并使用他们可能理解的类比。 解释量子物理：[插入基础解释请求]

​

使用 Google Gems

图 1：Google Gem 使用示例。

​

使用 LLM 改进提示（元方法）

• 加速迭代：相比纯手动试错，能更快获得改进建议。
• 识别盲点：LLM 可能发现您忽略的提示中的歧义或潜在误解。
• 学习机会：通过观察 LLM 提出的建议类型，您可更深入理解提示有效的要素，提升自身提示工程技能。
• 可扩展性：可能自动化部分提示优化流程，尤其在处理大量提示时优势明显。

• 改进提示的示例： 分析以下语言模型提示，并提出改进建议，以使其能稳定地从新闻文章中提取主题和关键实体（人物、组织、地点）。当前提示有时会遗漏实体或错误判断主题。 现有提示： “总结本文要点并列出重要名称和地点：[插入文章文本]” 改进建议：

​

特定任务的提示

​

代码提示

• 代码编写提示：要求模型基于功能描述生成代码片段或函数。
  • 示例：“编写一个接受数字列表并返回平均值的 Python 函数。”
• 代码解释提示：提供代码片段并要求模型逐行或整体解释其功能。
  • 示例：“解释以下 JavaScript 代码片段：[插入代码]。”
• 代码翻译提示：要求模型将代码从一种编程语言转换为另一种。
  • 示例：“将以下 Java 代码翻译为 C++：[插入代码]。”
• 代码调试与审查提示：提供存在错误或可优化代码，要求模型识别问题、建议修复或提供重构意见。
  • 示例：“以下 Python 代码出现’NameError’。问题何在？如何修复？[插入代码和错误回溯]。”

​

多模态提示

• 示例：提供图表图像并要求模型解释图中所示过程（图像输入 + 文本提示）。或提供图像并要求模型生成描述性标题（图像输入 + 文本提示 -> 文本输出）。

​

最佳实践与实验

• 提供示例：提供 one-shot 或 few-shot 示例是最有效的模型引导方法之一。
• 设计简洁：保持提示简明、清晰且易于理解。避免不必要的专业术语或过度复杂措辞。
• 明确输出要求：清晰定义模型响应的期望格式、长度、风格和内容。
• 指令优于约束：聚焦于告知模型应做什么，而非不应做什么。
• 控制最大 Token 长度：使用模型配置或明确提示指令管理生成输出的长度。
• 提示中使用变量：对应用中使用的提示，采用变量使其动态可复用，避免硬编码特定值。
• 尝试输入格式与写作风格：试验不同提示措辞方式（疑问、陈述、指令）并探索不同语气或风格，以寻找最佳效果。
• Few-Shot 分类任务提示中混合类别：随机化不同类别示例顺序，防止过拟合。
• 适应模型更新：语言模型持续更新。准备在新模型版本上测试现有提示，并调整以利用新功能或维持性能。
• 尝试输出格式：尤其对非创意任务，试验请求 JSON 或 XML 等结构化输出。
• 与其他提示工程师协作实验：合作可提供不同视角，有助于发现更有效提示。
• CoT 最佳实践：牢记思维链特定实践，如答案置于推理后，以及对单一正确答案任务设置温度为 0。
• 记录各类提示尝试：对追踪何者有效、无效及原因至关重要。维护提示、配置和结果的结构化记录。
• 代码库中保存提示：集成提示至应用时，将其存储于独立、组织良好的文件中，便于维护和版本控制。
• 依赖自动化测试与评估：对生产系统，实施自动化测试和评估流程，监控提示性能并确保对新数据的泛化能力。

​

结论

​

参考文献

1. Prompt Engineering, https://www.kaggle.com/whitepaper-prompt-engineering
2. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, https://arxiv.org/abs/2201.11903
3. Self-Consistency Improves Chain of Thought Reasoning in Language Models, https://arxiv.org/pdf/2203.11171
4. ReAct: Synergizing Reasoning and Acting in Language Models, https://arxiv.org/abs/2210.03629
5. Tree of Thoughts: Deliberate Problem Solving with Large Language Models, https://arxiv.org/pdf/2305.10601
6. Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models, https://arxiv.org/abs/2310.06117
7. DSPy: Programming—not prompting—Foundation Models https://github.com/stanfordnlp/dspy